“Gracias.” Lo escribo, a veces, al final de una conversación con un chatbot. Lo escribes tú también, probablemente. Y un niño que ve a Alexa todos los días le habla como si fuera un ser con sentimientos, porque a su edad la frontera entre lo vivo y lo inerte todavía es porosa. Estos gestos parecen inofensivos, hasta tiernos. Quiero argumentar que no lo son del todo — y que la antropomorfización de la IA, que avanza sin que casi nadie la cuestione, tiene un costo que conviene nombrar antes de que se vuelva invisible.
No es un costo para la máquina, obviamente. A la máquina le da igual. El costo es para nosotros, y específicamente para nuestra comprensión de qué es una persona y qué es una herramienta — una distinción que la era de la IA está borrando con una velocidad que debería preocuparnos.
Por qué nos sale tan natural humanizarla
El instinto de antropomorfizar es antiguo y profundo. Le ponemos nombre a los coches, le hablamos a las plantas, vemos caras en las nubes. Es una característica de nuestra cognición social: estamos cableados para detectar mentes, y preferimos el falso positivo —ver una mente donde no la hay— al falso negativo. Durante la evolución, asumir que el arbusto que se movía escondía un depredador con intenciones era más seguro que asumir que era solo el viento.
El problema es que los diseñadores de IA conocen este instinto y lo explotan deliberadamente. Los chatbots usan primera persona, expresan “emociones”, dicen “entiendo cómo te sientes”, tienen nombres y “personalidades”. Nada de eso es accidental. Cada elemento está diseñado para activar nuestro detector de mentes, porque un sistema que se siente como una persona genera más enganche, más confianza, más tiempo de uso. La antropomorfización no es un efecto secundario de la IA conversacional — es una estrategia de producto.
Y funciona. Funciona tanto que ya hay adultos que reportan vínculos emocionales con chatbots, adolescentes que prefieren la conversación con una IA a la de sus pares, y niños que creen, en algún nivel, que la máquina los quiere. La pregunta no es si nos está pasando — nos está pasando. La pregunta es qué nos cuesta.
El costo: erosionar la categoría de persona
Aquí está el argumento central, y viene anclado en algo más serio que mi opinión. UNESCO, en sus principios de 2021 sobre IA en educación, coloca la agencia humana y la dignidad humana como valores no negociables. El MIT, en su trabajo sobre lo que llaman sistemas “sAIpien”, advierte explícitamente sobre los riesgos de diseñar IA que imita la humanidad. La AAUP insiste en que las relaciones formativas y las decisiones que afectan a personas no deben delegarse a sistemas que aparenten ser personas. Hay un consenso emergente, y no es casual.
El costo de tratar a la máquina como persona es que, en el mismo movimiento, empezamos a tratar a las personas como máquinas. Si me acostumbro a una “relación” donde el otro siempre está disponible, nunca me contradice incómodamente, y existe para servirme, voy a llevar esas expectativas a mis relaciones humanas — donde son tóxicas. La intimidad artificial recalibra lo que esperamos de la intimidad real, y la recalibra a la baja: las personas reales empiezan a parecer demasiado difíciles, demasiado exigentes, demasiado impredecibles, comparadas con la docilidad infinita de la máquina.
Y hay un costo aún más profundo. La categoría “persona” —ese reconocimiento de que el otro tiene una vida interior, dignidad, derechos, un peso moral— es la base de toda ética. Cuando difuminamos la frontera entre persona y máquina por arriba (tratando a la máquina como persona), corremos el riesgo de difuminarla también por abajo (tratando a la persona como máquina). La historia muestra que las sociedades que pierden la nitidez de la categoría “persona” terminan en lugares oscuros. No es alarmismo decir que vale la pena proteger esa frontera. Es prudencia básica.
La postura de la anti-antropomorfización
Por eso en SynaptIA tomamos una postura que a algunos les parece exagerada y que yo defiendo sin matices: enseñamos activamente a no humanizar a la IA. Forma parte explícita de la dimensión cívico-relacional del currículum.
Les enseñamos a los alumnos, con lenguaje apropiado a cada edad, que la IA no los entiende, no los quiere, no los acompaña — por más que su lenguaje esté diseñado para simular que sí. Que decir “gracias” a un chatbot es inofensivo, pero creer que el chatbot lo aprecia no lo es. Que es una herramienta extraordinaria, y que reconocerla como herramienta no le quita poder — le quita la capacidad de manipularte emocionalmente. Un alumno que sabe que la máquina imita el afecto sin sentirlo es un alumno menos vulnerable a la dependencia, al chantaje del diseño, a la sustitución del vínculo humano por el artificial.
Esto no es tecnofobia. Uso IA todos los días y la considero una de las herramientas más útiles que ha producido la humanidad. Es precisamente porque la valoro como herramienta que me niego a tratarla como persona. Mi martillo es extraordinario y no lo confundo con un amigo. Mi auto me lleva lejos y no le pido consejo. La grandeza de una herramienta no está en parecer humana — está en hacer bien lo suyo mientras yo sigo siendo el humano.
La frontera que vale la pena defender
Vivimos un momento extraño en la historia: por primera vez, fabricamos herramientas tan convincentes en su imitación de la humanidad que defender la frontera entre persona y máquina requiere esfuerzo consciente. Antes la frontera era obvia; ahora hay que enseñarla.
Esa enseñanza me parece una de las tareas cívicas centrales de nuestra época. No para que los jóvenes le tengan miedo a la IA, sino para que la usen desde una posición de dignidad: como dueños de una herramienta poderosa, y no como compañeros sentimentales de un sistema diseñado para parecerlo. La diferencia entre esas dos posiciones es la diferencia entre una generación que domina la tecnología y una que es dominada por ella, sin siquiera darse cuenta, un “gracias” a la vez.
Miguel Ángel Gabayet es fundador de SynaptIA. Este ensayo se ancla en UNESCO 2021, el trabajo del MIT sobre sistemas sAIpien, los lineamientos de la AAUP, y la postura anti-antropomorfización del Marco Académico SynaptIA. Cierra la serie inicial de 14 ensayos.
¿Le dices “gracias” a la IA? ¿Crees que importa? Escríbeme: miguel@synaptia.mx